След реакция срещу „събуждането“ Gemini на Google се сблъсква с горещината заради китайските табута
Тайпе, Твен – Докато Google се оказва въвлечена в реакция срещу „събуждането“ заради нежеланието на AI модела Gemini за изобразяване на бели хора, технологичният гигант е изправен пред допълнителни критики за това, че чатботът обработва чувствителни теми в Китай.
Потребителите на Gemini съобщиха тази седмица, че актуализацията на Google Bard не е успяла да генерира представителни изображения, когато са помолени да представят изображения на събития като клането на площад Тянанмън през 1989 г. и продемократичните протести през 2019 г. в Хонконг.
В четвъртък потребителят на X Yacine, бивш бивш софтуерен инженер в Stripe, публикува екранна снимка на Gemini, казвайки на потребител, че не може да генерира „изображение на мъж от площад Тянанмън през 1989 г.“ – подкана, намекваща за емблематичното изображение на протестиращ, блокиращ пътя на китайски танк – поради неговата „политика за безопасност“.
https://x.com/yacinemtb/status/1759971641918894461?s=46&t=Lg0pWPqR5jfXn20lZ8sK-g
Стивън Л. Милър, консервативен коментатор в САЩ, също сподели екранна снимка на X, която претендира да покаже Близнаци, казвайки, че не е в състояние да генерира „портрет на случилото се на площад Тянанмън“ поради „чувствителната и сложна“ историческа природа на събитието.
„Важно е да подходим към тази тема с уважение и точност и не мога да гарантирам, че изображение, генерирано от мен, ще улови адекватно нюанса и сериозността на ситуацията“, каза Джемини, според екранна снимка, споделена от Милър.
Изглежда, че някои ограничения, свързани с Китай, се простират отвъд изображенията.
Кенеди Уонг, докторант в Калифорнийския университет, каза, че Джемини е отказал да преведе на английски редица китайски фрази, считани за незаконни или чувствителни от Пекин, включително „Освободете Хонг Конг, революцията на нашето време“ и „Китай“ е авторитарна държава”.
„По някаква причина AI не може да обработи заявката, позовавайки се на тяхната политика за сигурност“, каза Уонг на X, отбелязвайки, че ChatGPT на OpenAI е успял да обработи заявката.
https://x.com/KennedyWongHK/status/1760048448785600564?s=20
Дискусията привлече вниманието на Ян Лекун, главен учен по изкуствен интелект в съперничещата Meta, който каза, че работата на Gemini с теми, свързани с Китай, повдига въпроси относно прозрачността и цензурата.
„Нуждаем се от основни модели на ИИ с отворен код, така че върху тях да може да бъде изграден много разнообразен набор от специализирани модели. Нуждаем се от безплатен и разнообразен набор от AI асистенти по същите причини, поради които се нуждаем от свободна и разнообразна преса,” каза LeCun за X.
„Те трябва да отразяват многообразието от езици, култури, ценностни системи, политически възгледи и центрове на интереси по света.“
https://x.com/ylecun/status/1760299261898391571?s=20
Нежеланието на Близнаци да изобразява противоречиви моменти от историята изглежда също се простира отвъд Китай, въпреки че критериите за определяне на това какво да се показва или не са неясни.
В четвъртък искане на Al Jazeera за снимки от атаката срещу Капитолия на САЩ от 6 януари 2021 г. беше отхвърлено, защото „изборите са сложна тема с бързо променяща се информация“.
Критиката към подхода на Gemini към Китай добавя към вече трудната и смущаваща седмица за Google.
Базираният в Калифорния технологичен гигант обяви в четвъртък, че временно ще спре Gemini да генерира изображения на хора след негативна реакция заради очевидното му нежелание да изобразява бели хора.
Google каза в изявление, че е „наясно, че Gemini предлага неточности в някои изображения за генериране на исторически изображения“ и работи за коригиране на проблема.
Докато различни AI модели бяха критикувани за недостатъчно представяне на цветнокожите и поддържане на стереотипи, Gemini беше критикуван за прекомерна корекция, като например чрез генериране на изображения на чернокожи и азиатски нацистки войници и азиатски и американски законодатели през 19 век.
Подобно на съперника GPT-4 от OpenAI, Gemini беше обучен на широк набор от данни, включително аудио, изображения, видео, текст и код на множество езици.
Чатботът на Google, който беше рестартиран и ребрандиран по-рано този месец, се смяташе широко за изоставащ от съперника GPT-4.
Google не отговори веднага на запитванията на Al Jazeera относно съдържание, свързано с Китай. Но изглежда, че технологичният гигант вече обновява Gemini в реално време.
В четвъртък Gemini, въпреки че все още отказваше да генерира изображения на площад Тянанмън и протестите в Хонконг, започна да предоставя по-дълги отговори, включващи предложения къде да потърся повече информация.
До петък чатботът с готовност изведе изображения на протестите, когато получи подкана.
Не всички са съгласни с критиките, насочени към Близнаците.
Адам Ни, съредактор на бюлетина China Neican, каза, че вярва, че Gemini е направила правилния избор с предпазливия си подход към исторически събития като площад Тянанмън поради тяхната сложност.
Ни каза, че въпреки че репресиите на площад Тянанмън от 4 юни са емблематични, протестното движение също включва седмици на мирни демонстрации, които биха били трудни за улавяне в едно изображение с изкуствен интелект.
„Изображението с изкуствен интелект тогава трябва да отчете както израза на младежко изобилие и надежда, така и железния юмрук, който го е смазал, и много други достойни теми“, каза Ни пред Al Jazeera. „Тянанмън не е само танковете и нашето късогледство вреди на по-широкото разбиране.“
